Karl XII sinh ngày 17 tháng 6 năm 1682. Cha của ông là Karl XI, lên làm vua lúc mới 5 tuổi. Karl XII cũng là cháu nội của vua Karl X Gustav - một Công tử thuộc dòng dõi Vương công xứ Deux Ponts, em họ đồng thời là vua kế tục của Nữ hoàng Christina.[18] Tất cả có bảy anh em, nhưng chỉ có Karl, người chị Hedvig Sofia lớn hơn một tuổi, và em gái Ulrika Eleonora nhỏ hơn sáu tuổi, là sống sót cho đến lúc trưởng thành. Mặc dù Karl có thể chất yếu đuối, tuổi thơ ấu của ông có đầy hoạt động quân sự. Các nhà thiên văn học thời đó tiên đoán rằng: một ông hoàng chinh chiến đã ra đời vào năm 1682, và họ thật chính xác.[19] Năm ông lên 6 tuổi, Hoàng gia Thụy Điển truyền lệnh tách ly ông với mẫu hậu và những cung nhân trong Hoàng cung Stockholm, và cho ông chung sống với một vài anh lính hầu và triều thần.[20] Sau khi Hoàng hậu qua đời, vua cha Karl XI dành nhiều thời giờ để nuôi dạy con cái. Hoàng thái tử Karl - khác với vua cha thuở xưa[21] - đã tiếp nhận nhiều đức tin và cung cách của vua cha. Danh dự và thánh thiện là hai nguyên tắc chỉ đạo của ông: Quân vương phải đặt công lý và danh dự lên trên tất cả; một khi đã nói ra, phải làm theo lời nói[cần dẫn nguồn].

Năm ông lên 4 tuổi, ông được tập cưỡi ngựa, và ông trở thành một người cưỡi ngựa giỏi vào năm ông lên 8 tuổi.[22] Các thầy giáo của Karl thấy học trò của mình có trí thông minh nhạy bén và tiếp thu nhanh. Ông quan tâm đến tiếng Thụy Điển, nhưng học tiếng Đức khá hơn và sử dụng ngôn ngữ này như tiếng mẹ đẻ. Ông khá tiếng Latinh, cũng học tiếng Pháp nhưng thích đọc hơn là nói. Karl thực sự quan tâm đến tôn giáo. Ông thấy hấp dẫn với việc áp dụng toán học vào đạn đạo và xây công sự phòng thủ. Trong khi các thầy giáo ngưỡng mộ óc nhạy bén của học trò, họ cũng lo âu về tính khí mạnh mẽ của ông, thường có vẻ như là tính bướng bỉnh.[cần dẫn nguồn] Vào năm 11 tuổi, ông đã giết được một con gấu. Khi ông chưa tròn 12 tuổi, ông đã hạ sát được một con nai đực cách ông đến 90 Iát.[22] Vị hoàng tử trẻ trở nên ngưỡng mộ vua Macedonia Alexandros Đại đế, và ông còn nói: "Ta nghĩ rằng, sẽ có một ngày ta giống như ông ấy".[23] Khi biết Alexandros Đại đế mất lúc mới 32 tuổi, ông nói:[24]

Các thầy giáo của ông bèn tấu là vua Karl XI về câu nói của Hoàng thái tử. Nhà vua thốt lên:[23]